Die Europäische Kommission will große wie kleine Online-Plattformen dazu verpflichten, Upload-Filter einzusetzen, gab die EU-Behörde gestern bekannt. Damit sollen illegale Inhalte aller Art möglichst großflächig aus dem Internet verschwinden. In ihrer „Empfehlung“ richtet die Kommission ihr Augenmerk ausdrücklich auf „terroristische Inhalte, Aufstachelung zu Hass und Gewalt, Darstellungen des sexuellen Missbrauchs von Kindern, Produktfälschungen und Urheberrechtsverletzungen“, die sie aus dem Netz fegen will.
Besonders im Visier der Kommission stehen terroristische Inhalte. Diese sollen künftig innerhalb einer Stunde durch die Plattformen entfernt werden, sobald sie darauf aufmerksam gemacht worden sind. Zudem sollen die Betreiber selbst Maßnahmen ergreifen, etwa den Einsatz künstlicher Intelligenz, um solche Inhalte selbst zu erkennen. Das erneute Hochladen illegaler Inhalte sollen Upload-Filter verhindern und so dafür sorgen, dass die Texte, Bilder oder Videos dauerhaft nicht mehr auffindbar sind.
„Da Online-Plattformen zu einem zentralen Zugangsportal zu Informationen werden, liegt es in ihrer Verantwortung, ein sicheres Umfeld für ihre Nutzer zu schaffen“, sagte der für den digitalen Binnenmarkt zuständige Vizepräsident der EU-Kommission, Andrus Ansip. Dabei müsse man jedoch die klein- und mittelgroßen Plattformen ebenfalls in die Pflicht nehmen, ergänzte die Digital-Kommissarin Marija Gabriel auf der Pressekonferenz in Brüssel.
Kleine Plattformen sollen sich bei den großen bedienen
Gegenwärtig sei oft zu beobachten, dass einschlägige Inhalte von den großen Plattformen verschwinden würden, aber an anderer Stelle wieder auftauchten. „Wir senden eine klare Botschaft: Das wird so nicht weiter funktionieren“, sagte Gabriel. Da aber kleineren Plattformen die Ressourcen fehlten, solche automatisierten Systeme selbst zu errichten, sollen sie sich an jene der großen anschließen.
Eine solche Datenbank betreiben mittlerweile die IT-Riesen Facebook, Youtube, Twitter und Microsoft. Darin speichern sie digitale Fingerabrücke, laut Factsheet (PDF) der Kommission derzeit über 50.000 sogenannter „Hashes“, von gemeldeten oder automatisch erkannten Inhalten. Dieser gemeinsam genutzte Upload-Filter unterbindet dann ein erneutes Hochladen. Seit Kurzem beteiligen sich Google+ und Instagram ebenfalls an dem zentralisierten System, weitere Plattformen sollen bald folgen, kündigte EU-Justizkommissarin Věra Jourová letzte Woche an.
Geht es nach der Kommission, droht Europa eine engmaschige Zensurinfrastruktur, die privaten Anbietern die Entscheidung über die Rechtmäßigkeit von Inhalten überlässt. Allein, automatische Erkennungs- und Filtersysteme haben sich in der Vergangenheit als notorisch unzuverlässig erwiesen. Bessern dürfte sich das kaum, denn die Kommission will deren Einsatz auf alle möglichen Anwendungsbereiche ausdehnen, zwischen denen die Grenze oft schwammig verläuft.
Automatische Filter versagen oft
„Wir wissen aus Erfahrung, dass automatische Filter regelmäßig versagen und legitime Meinungsäußerungen entfernen“, erklärte die Piratin und EU-Parlamentsabgeordnete Julia Reda gegenüber netzpolitik.org. Die deutsche Abgeordnete hat im Vorjahr zahlreiche Fälle dokumentiert, in denen automatisierte Filtersysteme versagt und Inhalte aller Art fälschlicherweise als „illegal“ eingestuft haben. „Wir dürfen die Gesetzesvollstreckung nicht an private Internet-Plattformen auslagern – und schon gar nicht an intransparente Algorithmen“, sagte Reda.
Facebook wiederum bezeichnet den Einsatz künstlicher Intelligenz als „erfolgversprechend“ dabei, die Ausbreitung terroristischer Inhalte zu stoppen. „99 Prozent aller Terrorinhalte, die mit ISIS oder Al-Qaida in Verbindung stehen und die wir von unserer Plattform löschen, entdecken wir selbst, noch bevor uns diese jemand gemeldet hat“, teilte uns eine Facebook-Sprecherin mit.
In erster Linie setze das soziale Netzwerk dazu automatisierte Systeme wie Foto- und Videoabgleich sowie textbasiertes Machine Learning ein. „Ist uns einmal ein solcher Inhalt bekannt, dann entfernen wir 83 Prozent der in der Folge hochgeladenen Kopien innerhalb einer Stunde“, sagte die Sprecherin. (Unsere Anfragen an weitere Plattformen wie Microsoft oder Google blieben bislang unbeantwortet oder dürfen nicht zitiert werden.)
Ob diese Quote den Anforderungen der Kommission genügen wird, bleibt vorläufig offen. Ebenso unbekannt ist die Erfolgsquote bei der Erkennung von Inhalten, die im Vergleich zu einschlägigen Enthauptungsvideos harmlos sind, etwa nutzergenerierten Memes oder nachgespielten Musikstücken.
Doch selbst in scheinbar eindeutigen Fällen gelingt die Abwägung oft nicht richtig: So verschwinden von Nutzern dokumentierte Kriegsverbrechen in Syrien von Youtube, während die um die Aufmerksamkeit von Zuschauern buhlenden Algorithmen gewaltverherrlichende Verschwörungsvideos empfehlen. Solche Entscheidungen zu einem guten Teil automatischen Systemen zu überlassen, mutet daher beinahe fahrlässig an.
Ein Katz-und-Maus-Spiel mit Terrorpropaganda
Zugleich muss man davon ausgehen, dass die von der Kommission vorgeschlagenen Maßnahmen nicht an den Produzenten von Terrorpropaganda vorbeigehen werden – und diese ihre Strategien entsprechend anpassen. Upload-Filter würden deshalb nur wenig dazu beitragen, die Ausbreitung von Terrorpropaganda einzudämmen, befürchtet Volker Tripp von der Bürgerrechtsorganisation Digitale Gesellschaft. „Selbst wenn bestimmte Arten von Propagandavideos, die besonders drastische Gewaltdarstellungen enthalten, von den Filtern erkannt werden, ist damit keineswegs ausgeschlossen, dass die Filter künftig nicht durch Veränderungen in Konzepten und Gestaltung der Videos umgangen werden können“, sagte Tripp.
Für einwandfrei legale Inhalte, die sich in den Filtern verfangen, wäre es dann aber zu spät. Gleichzeitig baut die Industrie, auf Drängen der EU-Kommission, eine Zensurinfrastruktur auf, die jetzt schon tief in das Grundrecht auf freie Meinungsäußerung eingreift. Sollte sich die politische oder wirtschaftliche Großwetterlage ungünstig entwickeln, dann wäre relativ einfach viel mehr möglich, warnt Tripp: „Einmal installiert, können Filter durch minimale Änderungen im Code auch auf andere Inhalte, unbequeme Ansichten und missliebige politische Ansichten ausgedehnt werden.“ Auf diese Weise könnten Filter zur Manipulation von Meinungen und zur Unterdrückung unerwünschter Inhalte missbraucht werden, so Tripp.
EU-Recht verbietet Überwachungspflichten
Aus gutem Grund sind in der EU allgemeine Überwachungspflichten für Plattformen verboten, untermauert durch Urteile des Europäischen Gerichtshofes. Doch nun versucht die Kommission, „diese Vorschrift zu umgehen, indem sie Druck auf die Plattformen ausübt, Inhalte ‚freiwillig’ zu filtern“, erklärte Julia Reda. Und freiwillige Maßnahmen privater Anbieter könnten sich der Kontrolle der Gerichte entziehen.
Bislang hatte die Kommission auf rechtlich bindende Maßnahmen verzichtet. Das gilt auch für die gestern vorgestellte formale Empfehlung, die auf die im September des Vorjahres präsentierten Leitlinien folgt. Doch die Kommission zieht die Daumenschrauben merklich enger an. „Freiwilligkeit bleibt weiterhin der bevorzugte Ansatz“, sagte Ansip zwar auf der Pressekonferenz. Aber auf die eine oder andere Art müssten die Ziele der Kommission umgesetzt werden, betonte der estnische Politiker.
Sollten in den kommenden drei bis sechs Monaten keine messbaren Fortschritte erzielt werden, werde man konkrete legislative Maßnahmen erwägen – also eine EU-Verordnung oder Richtlinie. Zwischenzeitlich werde die Kommission den Fortschritt beobachten, eine Folgeabschätzung erarbeiten sowie eine Konsultation starten.
„Freiwilligkeit“ löst viele Probleme – und schafft viele neue
Mit ihrem Vorstoß und dem Insistieren auf „Freiwilligkeit“ entzieht sich die Kommission zudem zwei weiteren heißen politischen Eisen: Einerseits führt sie de facto Upload-Filter für mutmaßliche Urheberrechtsverletzungen durch die Hintertür ein. Allein das ist bereits demokratiepolitisch bedenklich, denn die selbst im schwarz-schwarz-roten Koalitionsvertrag als „unverhältnismäßig“ bezeichnete Maßnahme wird derzeit heftig im EU-Parlament debattiert und stößt darüber hinaus auf breiten Widerstand aus Zivilgesellschaft und Wirtschaft.
Andererseits kann die Kommission weiterhin behaupten, nicht an der europäischen E‑Commerce-Richtlinie zu rütteln, die ein Grundpfeiler für die Digitalwirtschaft in Europa ist. Das Gesetz stellt Hostanbieter von der Haftung frei, selbst wenn auf ihren Plattformen illegale Inhalte liegen. Strafbar machen sie sich erst dann, wenn sie auf solche Inhalte aufmerksam gemacht werden, diese aber nicht löschen.
„Wir würden auf einen Schlag tausende Plattformen in Europa töten, wenn wir sie haftbar machen würden für 100 Prozent der Inhalte, die sie speichern“, sagte Andrus Ansip auf der Pressekonferenz. Schon allein deswegen wolle er die Regelung unbedingt aufrecht erhalten. Zustimmung erhielt der Vize-Präsident von seinen anwesenden Kommissionskollegen.
„Wenn Plattformen haftbar gemacht werden, dann stirbt der digitale Binnenmarkt“, warnte die EU-Justizkommissarin Jourová. „Das wollen wir nicht.“ Und sollte der Selbstregulierungsansatz scheitern, pflichtete Julian King bei, der britische Kommissar für die Sicherheitsunion, dann werde es nur Änderungen „innerhalb des Rahmens geben, den die E‑Commerce-Richtlinie vorgibt“.
Internetwirtschaft verunsichert
Die Äußerungen sowie die Vehemenz, in der sie unisono vorgetragen wurden, zeigen, wie wichtig es der Kommission ist, für ein Gefühl der Rechtssicherheit zu sorgen. Ganz gelingen konnte ihr der Spagat aber nicht. Denn es ist kaum möglich, auf der einen Seite massiven Druck auf die Plattformen aufzubauen, mit dem regelmäßig erwähnten Damoklesschwert möglicher legislativer Schritte, um sie zur „freiwilligen“ Selbstregulierung zu zwingen – und auf der anderen Seite zu insistieren, dass alles so bleibt, wie es ist.
„Die Kommission untergräbt hier ganz eindeutig europäische Grundwerte und widerspricht bestehenden Rechtsgrundlagen“, sagte Oliver Süme vom Verband der Internetwirtschaft, eco. Die Empfehlung, Filter und die proaktive Suchen zu verwenden, um Inhalte zu filtern und erneutes Hochladen zu verhindern, verstoße ganz klar gegen die E‑Commerce-Richtlinie.
Laut der europäischen Bürgerrechtsorganisation EDRi würde der Widerspruch eines Mitgliedstaates ausreichen, um die Empfehlung zu Fall zu bringen. Aus Deutschland und anderen großen Ländern wird dieser jedoch nicht kommen: „Die Bundesregierung tritt gemeinsam mit den Regierungen Frankreichs und Großbritanniens dafür ein, die Unternehmen der Internetwirtschaft für freiwillige, proaktive und effektive Maßnahmen zu gewinnen, um terroristische Internetinhalte schneller von den jeweiligen Plattformen zu entfernen“, hieß es erst gestern aus dem Bundesinnenministerium.
Willkürliche Löschpraxis der Plattformen
Ohne Zweifel haben die Plattformen ein Problem. Hassrede, Meinungsmanipulation und damit vergifteter öffentlicher Diskurs, gepaart mit der Unwilligkeit oder Unfähigkeit der Betreiber sowie der Gesetzgeber, adäquat darauf zu reagieren, schwappen oft genug ins reale Leben über. Mit teils verheerenden Konsequenzen. Während beispielsweise italienische Neo-Faschisten im Wahlkampf unbehelligt Stimmung in sozialen Medien gegen Migranten machen, fühlen sich ihre Parteigänger dadurch ermutigt – und verüben etwa Schussattentate auf Menschen mit der „falschen“ Hautfarbe.
Schon vor einem Monat habe er Věra Jourová gefragt, warum sich unmissverständlich rassistische Hetze italienischer Lega-Nord-Politiker weiterhin auf Twitter finde, merkte ein Journalist auf der Pressekonferenz an. Gelöscht habe die Plattform die einschlägigen Postings bis heute nicht, obwohl doch die bisherigen Leitlinien der Kommission wie auch der Verhaltenscodex der Plattformen Aufrufe zu Gewalt untersagen würden.
Man müsse sich das auf Fall-zu-Fall-Basis ansehen, entgegnete die Justizkommissarin, die sich an die Frage erinnern konnte und betreten wirkte. „Aus meiner subjektiven Sicht entsprechen Aufrufe zu Menschenjagden genau dem, was gelöscht werden sollte“, sagte Jourová. „Das Recht auf freie Meinungsäußerung ist das grundsätzliche Prinzip“, fügte sie hinzu. „Wir beobachten genau, was die Plattformen machen“, versicherte sie, „und wenn wir über eindeutige Fälle stolpern, dann werden wir individuell handeln. Dazu stehen wir in direktem und permanentem Kontakt mit den Plattformen“.
Kommission will nicht „100 Prozent“ löschen
Anders als es das deutsche Netzwerkdurchsetzungsgesetz anreizt, will die Kommission ihren Angaben zufolge nicht, dass 100 Prozent des Beanstandeten gelöscht wird. Derzeit liege die Quote getilgter „illegaler Hassrede“ bei 70 Prozent. Denn die Fristen und Strafandrohung führten in Deutschland dazu, dass Plattformen im Zweifel lieber zu viel als zu wenig entfernten. „Das wollen wir aber nicht, und genau deswegen haben wir uns für den freiwilligen Ansatz entschieden“, sagte Jourová. Auch Ansip meldete Zweifel an der deutschen Regelung an: „Ich glaube nicht, dass es sich um ein ideales Gesetz handelt und dass alle damit zufrieden sind“.
Die Meinungsfreiheit schützen sollen laut Kommission bestimmte Sicherheitsvorkehrungen wie Online-Formulare. Darüber sollen Nutzer ihre Sicht der Dinge darlegen können, wenn ihre Postings gelöscht wurden. Zudem ist bei automatisch entfernten Inhalten eine Aufsicht und Überprüfung durch Menschen vorgesehen. Doch in der Empfehlung finden sich lediglich unbestimmte Aufforderungen und Konjunktive ohne rechtsverbindlichen, angemessenen Schutz. In der Praxis lagert die Kommission damit die Rechtsdurchsetzung an private, sich selbst regulierende Plattformen und ihre intransparenten Algorithmen sowie Datenbanken aus, die alle paar Monate unbestimmt überprüft werden sollen.
„Die EU-Kommission drängt Internetriesen zu ‚freiwilliger’ Zensur, um eine gesetzliche Regelungen zu umschiffen, die demokratischer Kontrolle unterliegen würde und vor Gericht anfechtbar wäre“, sagte Joe McNamee von EDRi. „Die Empfehlung institutionalisiert die Rolle von Facebook und Google, die freie Meinungsäußerung von Europäern zu regulieren. Die Kommission sollte klug sein und endlich damit beginnen, Regelungen zu entwickeln, die auf zuverlässigem Datenmaterial aufbauen und nicht auf Public-Relation-Spin.“
